Luce: Relightable Gaussians for 3D Asset Generation
高保真图像到3D生成需要一种能够同时捕捉几何形状和外观的3D表示。为了支持重新照明和集成到标准渲染管道中，该表示应包括基于物理的渲染（PBR）模态。
PROOF-Gen: From Optimized Data to Better Distillation
在教师生成轨迹上的监督微调是将工具调用能力蒸馏到可部署模型的标准第一阶段。推动已发布工具调用代理的后训练流水线以每日或每周的节奏重新运行此阶段。
IDEA Prune: An Integrated Enlarge-and-Prune Pipeline in Generative Language Model Pretraining
大型语言模型的最新进展加剧了在有限推理预算内对高效可部署模型的需求。与从头开始训练目标规模模型相比，结构化剪枝管道在令牌效率方面显示出潜力。
STARFlow2: Bridging Language Models and Normalizing Flows for Unified Multimodal Generation
能够理解、推理和生成交错文本-图像序列的统一多模态模型在结构上仍然分散：现有方法要么通过离散标记化牺牲视觉保真度，要么通过组合不同的模态施加结构不对称性。
Beyond Visual CoT: Internalized Visual Thinking for Proactive Video Reasoning
多模态大语言模型越来越多地使用视觉思维链 (Visual CoT) 来推理空间、时间和具体环境。通过生成中间推理图像，Visual CoT 为视觉预见提供了直观的机制，但引入了大量的推理开销，这对于主动视频推理来说尤其成问题。我们询问模型是否可以在训练过程中学会视觉思考，同时在推理时直接进行推理。我们引入内部化视觉思维（IVT），这是一种联合优化文本预测和……的训练后框架。
Scaling Laws for Mixture Pretraining Under Data Constraints
随着语言模型的扩展，它们所需的数据量也在增长，但许多目标数据源（例如低资源语言或专业领域）本质上在大小上受到限制。一种常见的策略是将这种稀缺但有价值的目标数据与丰富的通用数据混合在一起，这提出了一个基本的权衡：混合物中的目标数据太少会使模型在目标域中暴露不足，而太多的目标数据会过度重复相同的示例，从而产生收益递减并最终导致过度拟合。我们在 2,000 多次语言模型训练中研究了这种权衡……
Multilingual Knowledge Transfer under Data Constraints via Lexical Interventions
跨语言知识迁移对于为训练数据不足的语言构建高性能的多语言语言模型至关重要。当目标语言数据稀缺时，涉及科学推理、常识推理和世界知识等许多下游任务所需的知识必须主要从高资源语言获取，因此有效的知识迁移至关重要。改进这种跨语言知识转移的现有方法需要大量并行数据、翻译系统、辅助模型或额外的训练阶段……
语码转换 (CS)，即同一话语中的不同语言，由于 CS 训练数据有限，给自动语音识别 (ASR) 带来了重大挑战。本文首次将迭代伪标记训练方法应用于 CS-ASR，证明了其在利用未标记数据来提高 CS-ASR 性能方面的有效性。该方法包括三个阶段：伪标签生成、两阶段双语模型训练和迭代改进。它首先从大型未标记语料库生成伪标签，创建半监督数据集。这……
The P-Completeness of Inverted Index Traversal: On the Complexity of Evaluating Boolean Query DAGs
现代人工智能代理越来越依赖搜索基础设施来执行复杂的神经符号推理工作流程。这些工作流程通常编译成对文本字段的深度嵌套、非单调布尔查询。然而，在处理这些结构时，倒排索引的标准查询评估策略面临着严格的理论限制。有状态迭代器模型（一次文档）在结构上受到 NC^1 公式评估的限制，在展开重新收敛逻辑时，查询复杂性会遭受最坏情况的 O(2^|Q|) 指数爆炸。相反，递归物化模型......
大型语言模型 (LLM) 表现出广泛的类人行为，从表达思想和情感，到与用户建立关系，再到拒绝请求和维护边界。尽管法学硕士很普遍，但研究人员和从业者缺乏方法和经验见解来就法学硕士应该表现出何时以及何种类型的类人行为做出明智的决定。为了填补这一空白，我们使用法学硕士作为法官和人类评估，对这些行为的普遍性、潜在影响和可控性进行了多维分析。超过 21,000 个……
GRPO Beyond English: A Large-Scale Study of GRPO in Non-English and Multilingual Settings
带可验证奖励的强化学习 (RLVR) 通常通过组相对策略优化 (GRPO) 进行优化，已成为提高预训练语言模型推理能力的核心方法，但目前的研究仍然主要以英语为中心。我们对多语言和非英语 GRPO 进行了大规模的实证研究，涉及广泛的基础模型、训练语言和不同的推理语言奖励。我们发现，母语推理训练通常与英语推理训练差距很小。我们进一步观察到强...
MVICAD2: Multi-View Independent Component Analysis with Delays and Dilations
多视图设置中的机器学习技术面临着重大挑战，特别是在集成异构数据、对齐特征空间和管理特定于视图的偏差时。这些问题在神经科学中很突出，通过分析来自相同刺激的多个受试者的数据来揭示大脑活动动态。在脑磁图 (MEG) 中，信号是在头皮水平捕获的，估计大脑的潜在来源至关重要，尤其是在假设所有受试者的来源相似的群体研究中。常用的方法，比如Multi-View...
A Specialized Semismooth Newton Method for Kernel-Based Optimal Transport
基于内核的最优传输 (OT) 估计器提供了一种替代的功能估计程序来解决样本中的 OT 问题。最近的研究表明，在比较高维概率度量时，这些估计器比插件（基于线性编程）OT 估计器在统计上更有效[Vacher et al., 2021]。不幸的是，这种统计优势是以非常高昂的计算代价为代价的：因为它们的计算依赖于短步内点法（SSIPM），而这种方法在实践中会带来大量的迭代次数，所以这些估计器很快就会变得……
When Unlearning Is Free: Leveraging Low Influence Points to Reduce Computational Costs
随着对机器学习中数据隐私的担忧不断增加，从训练模型中遗忘或删除特定数据点的能力变得越来越重要。尽管最先进的遗忘方法已经出现，但它们通常平等地对待遗忘集中的所有点。在这项工作中，我们通过询问是否需要删除对模型学习影响可忽略不计的点来挑战这种方法。 Through a comparative analysis of influence functions across language and vision tasks, we identify subsets of training data with negligible impact on model outputs…
Arbitrage: Efficient Reasoning via Advantage-Aware Speculation
Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.
style="text-indent: 2em; "Continuous diffusion and flow matching models could represent a powerful alternative to autoregressive approaches for language modelling (LM), as they unlock a host of advantages currently reserved for continuous modalities, including accelerated sampling and tilting. Recently, several works have de
大型语言模型 (LLM) 在广泛的自然语言处理 (NLP) 任务（包括文档处理和代码生成）上取得了最先进的性能。自回归语言模型（ARM）根据所有先前的标记顺序生成标记，一直是法学硕士的主要范例。虽然这些模型在一系列下游任务中实现了高精度，但由于下一个令牌预测中固有的顺序依赖性，它们表现出较低的算术强度。最近，扩散语言模型 (DLM) 已成为一种有前途的......
DeepAmbigQA: Ambiguous Multi-hop Questions for Benchmarking LLM Answer Completeness
具有集成搜索工具的大型语言模型 (LLM) 在开放域问答 (QA) 方面显示出强大的前景，但它们常常难以为复杂问题提供完整的答案，例如“电影《热火》中的哪位演员至少赢得了一项奥斯卡奖？”，这需要 (1) 区分多部具有相同标题的电影，以及 (2) 对大量演员进行推理以收集和整合证据。现有的质量保证基准很少联合评估这两个挑战。为了解决这个问题，我们引入了 DEEPAMBIGQAGEN，一个自动数据生成管道，用于构建 QA...
